Thượng viện đầu tiên được thành lập tại Pháp năm 1795 trong thời kỳ Đệ Nhất Cộng hòa với tên gọi là Hội đồng trưởng lão là thượng nghị viện. Trong giai đoạn từ Đệ Nhất Đế chế và Đệ Nhị Đế chế đều thành lập Thượng viện (Sénat conservateur), trên danh nghĩa là cơ quan Lập pháp nhưng thực tế thì không phải như vậy. Có thể được xem là cơ quan tư vấn tương tự Viện nguyên lão La Mã.

Vào giai đoạn Bourbon phục hoàng năm 1814, thượng viện được thành lập với tên gọi Viện Quý tộc (Chambre des Pairs) theo mô hình Viện Quý tộc của Anh, ban đầu nghị viên là cha truyền con nối, sau quân chủ tháng 7 năm 1830 đã trở thành cơ quan được chỉ định tới hết đời. Trong giai đoạn Đệ Nhị Cộng hòa (1848) đã xóa bỏ lưỡng viện áp dụng chế độ đơn viện. Nhưng khi Đệ Nhị Đế chế được thành lập (1852) đã sử dụng lại chế độ lưỡng viện, thượng viện được tái lập. Trong giai đoạn đệ Tứ Cộng hòa (1947) Thượng viện được thay thế bằng Hội đồng Cộng hòa, có quyền hạn chức năng tương đương Thượng viện.

Với Bản Hiến pháp Đệ Ngũ Cộng hòa được thi hành ngày 4/10/1958, Thượng viện được tái lập và tên cũ Thượng viện được sử dụng lại.

Năm 2011 Đảng Xã hội Pháp lần đầu tiên giành quyền kiểm soát Thượng viện từ khi thành lập Đệ Ngũ Cộng hòa.[2]